Tev: Scaling Long-Horizon Agentic Environments with Dense Progress Rewards
TEV：用稠密进度奖励扩展长程智能体训练环境
🧭 长程智能体训练 · 环境合成与稠密奖励 ★ 深度解读
Adobe Research · University of California, Los Angeles
先构造完整隐藏世界再渲染损坏任务，并用进度势能奖励解决长程智能体 RL 的稀疏奖励，使开源模型逼近前沿。
📌 工作参考价值（4 点）
- 在电商/广告 Agent 的复杂多步骤任务（商品知识图谱构建、营销活动搭建、数据管道修复）中，可采用 latent-world-first 思路：先定义完整正确的目标状态（latent world），再反向渲染损坏输入和 workflow DAG，避免 prompt、任务、验证器各自生成导致的 artifact drift。
- 用 workflow DAG 定义 progress contract，对每个关键中间节点做 prerequisite-gated 评分，作为 RL 稠密奖励；能有效解决 GRPO 组内全失败时梯度为零的问题，在训练多步操作 Agent 时提升 sample efficiency。
- 奖励塑形使用 R(τ)=1[pass]+λΦ(s_T)，λ=0.25，保证通过任务严格优于未通过，同时提供部分进度信号；实现时注意 turn-index normalization 和 return-to-go γ=1，保持 credit assignment，避免后期 turn 的回报被整体均值稀释。
- 合成环境时用 seeded generator 而非 LLM 直接生成，并在生成阶段加入 round-trip 验证和资格门（exploit resistance, progress validity, role independence），可保证可复现、可验证、无奖励黑客。